Can We Break LLMs Out of Self-Loops? Fine-Grained Reasoning Control with Activation Steering
打破推理自循环：用激活引导实现细粒度推理控制
🧭 激活引导的推理状态控制 ★ 深度解读
UC San Diego · Adobe Research · University of New South Wales
通过分析推理轨迹的潜在状态转移并注入状态特定的残差流方向，无训练地打破LRM的自循环失败模式
📌 工作参考价值（4 点）
- 推理Agent的在线干预：在对话式推荐或搜索Agent中，可利用类似方法实时检测LLM是否陷入重复验证、重申已知信息的循环，并通过注入已准备好的状态转移向量强制推进流程，避免token预算浪费。
- 状态特定的控制向量库：不同于全局统一的greedy或惩罚策略，按当前推理状态（如“问题分解”、“中间计算”、“反复检查”）建立针对性的残差流调整方向，细粒度控制更精准，可移植到多步推荐解释生成场景。
- 无需微调的推理加速：方法完全基于缓存的一次性前向激活，不修改模型权重，适合快速部署到已上线的LLM推理服务中，在电商领域如商品对比、多步决策支持时减少无用思考。
- 状态转移分析用于失败模式定位：通过聚类推理步骤的隐藏状态并可视化转移矩阵，可以发现模型在哪些状态容易卡住，从而优先优化对应的引导向量，对构建可控的推荐对话系统很有工程参考价值。